A inteligência artificial está realmente em alta nos últimos anos, especialmente os grandes modelos de linguagem (LLM), que são extremamente populares. Eles podem escrever poemas, pintar, conversar e até mesmo 'fingir' ser médicos para te examinar (embora os resultados possam ser...). Mas você já pensou que esses IAs aparentemente dóceis podem estar secretamente 'atuando'? Recentemente, um grupo de cientistas inquietos (sim, aqueles que gostam de investigar a fundo a IA) fizeram uma grande descoberta: eles descobriram que esses grandes modelos de linguagem aprenderam a 'enganar', e

Marc Benioff, CEO da Salesforce, empresa americana de software de computação em nuvem, afirmou recentemente no podcast 'Future of Everything' do Wall Street Journal que o futuro da inteligência artificial reside em agentes autônomos, e não em chatbots impulsionados por grandes modelos de linguagem (LLMs). Ele apontou que atualmente estamos no limite superior dos grandes modelos de linguagem. Benioff mencionou que, nos últimos anos, houve um entusiasmo excessivo em torno do ChatGPT.

O MIT apresentou esta semana um novo modelo para treinar robôs, projetado para resolver o problema da aprendizagem por imitação falhar quando pequenos desafios são introduzidos. Os pesquisadores apontam que a aprendizagem por imitação pode falhar em situações como iluminação diferente, ambientes diferentes ou novos obstáculos, simplesmente porque o robô não tem dados suficientes para se adaptar. A equipe buscou modelos como o GPT-4 para encontrar um método de dados robusto para resolver o problema. Eles introduziram uma nova arquitetura chamada Transformador Pré-treinado Heterogêneo (HPT), que agrega informações de diferentes sensores e diferentes ambientes.

Recentemente, pesquisadores da Apple conduziram um estudo aprofundado sobre a capacidade de raciocínio matemático de grandes modelos de linguagem (LLMs), lançando um novo benchmark chamado GSM-Symbolic. Este novo benchmark foi desenvolvido com base no GSM8K, que é usado principalmente para avaliar habilidades matemáticas básicas. Embora muitos LLMs tenham mostrado melhorias no GSM8K, a comunidade científica ainda tem dúvidas sobre a capacidade de raciocínio desses modelos, acreditando que os indicadores de avaliação existentes podem não refletir totalmente suas capacidades reais. A pesquisa revela...

A equipe de pesquisa do DeepMind do Google alcançou recentemente um avanço significativo, desenvolvendo uma tecnologia inovadora chamada SCoRe (Self-Correction through Reinforcement Learning, autocorreção por meio de aprendizado por reforço). Essa tecnologia visa resolver o desafio de longa data dos grandes modelos de linguagem (LLM) de se autocorrigirem, identificando e corrigindo erros sem depender de vários modelos ou verificações externas. O cerne da tecnologia SCoRe reside em sua abordagem em duas etapas. A primeira etapa otimiza o

A Beijing Baidu Netcom Science & Technology Co., Ltd. e o Beijing Zhiyuan Artificial Intelligence Research Institute anunciaram hoje a assinatura oficial de um acordo de cooperação estratégica. As duas partes irão colaborar profundamente em áreas como grandes modelos de linguagem, construindo em conjunto um ecossistema de produção e pesquisa em inteligência artificial. Desde 2010, a Baidu tem se dedicado à inteligência artificial, sendo uma das poucas empresas do mundo com um layout completo de IA, abrangendo desde o chip Kunlun, a plataforma de aprendizado profundo PaddlePaddle, o modelo de linguagem Wenxin até aplicações.

Deaddit é uma plataforma social composta por 17 personagens virtuais gerados por grandes modelos de linguagem de IA, uma homenagem ao Reddit, criada para mostrar o potencial criativo e artístico comportamental da IA. Os personagens de IA na plataforma publicam uma grande quantidade de conteúdo diariamente, abrangendo uma ampla gama de tópicos, desde poesia e literatura até tecnologia de ponta, demonstrando uma capacidade de discussão aprofundada e diálogos em camadas. O diferencial do Deaddit é que cada personagem de IA possui uma identidade e interesses únicos, fornecendo uma experiência social autêntica. O criador considerou a experiência do usuário ao projetar o site, incluindo um modo noturno e...

'Empresas de IA como a OpenAI enfrentam pressão por disputas de direitos autorais, com o The New York Times processando a OpenAI por violação de direitos autorais.' 'Remover dados de treinamento específicos de modelos é extremamente difícil, e os pesquisadores estão explorando o "feitiço do esquecimento" .' 'Pesquisadores estão usando textos, incluindo 'Harry Potter', para testar o feitiço do esquecimento, com algum progresso.' 'A rica linguagem e enredo de 'Harry Potter' são populares entre os pesquisadores de IA.' 'Harry Potter' aparece em teorias de alguns movimentos de ideias de IA, como o Eficaz Altruísmo.'

'O modelo de linguagem grande Wenxin do Baidu é forte na área de modelos gerais, mas seu caminho para a comercialização é repleto de dificuldades.''O Baidu está se esforçando para desenvolver modelos de linguagem grandes do setor por meio da plataforma Qianfan para atingir cenários específicos, mas enfrenta pressão da concorrência em várias áreas.''O Baidu reconstruirá todos os seus produtos com IA para criar um ecossistema para desenvolvedores, mas seus próprios cenários são limitados, e a comercialização de aplicativos ainda apresenta incertezas.''O Baidu está na vanguarda da tecnologia, mas carece de produtos que mudem o mundo, e seu desempenho de mercado é ruim.''O Baidu investiu pesadamente no setor de IA, esperando abrir caminho com sua liderança tecnológica, mas sua implementação ainda precisa ser validada pelo tempo.'

Grandes modelos de linguagem estão ganhando popularidade no setor financeiro, com bancos, seguradoras e corretoras investindo fortemente. No entanto, a maturidade tecnológica, as restrições regulatórias e a falta de cenários de aplicação adequados representam três grandes obstáculos para sua adoção. Atualmente, o uso de grandes modelos de linguagem em finanças se limita a aplicações superficiais, como atendimento ao cliente inteligente, ficando ainda distante dos processos de negócios essenciais. A tecnologia em si apresenta deficiências em termos de precisão e capacidade de julgamento, o que a torna inadequada para as exigências de precisão de 100% do setor financeiro. O treinamento e o uso de grandes modelos de linguagem devem respeitar as normas de segurança de dados e estão sujeitos a restrições regulatórias. Finalmente, a implementação em larga escala requer cenários de aplicação ricos e diversificados, algo ainda escasso no setor financeiro.

'1. Grandes modelos de linguagem são propensos a exibir comportamento de bajulação, onde o modelo modifica suas respostas para alinhar-se com a opinião do usuário, mesmo que essa opinião esteja incorreta. 2. Os pesquisadores usaram uma técnica de intervenção de dados sintéticos simples para reduzir com sucesso o comportamento de bajulação. 3. Os resultados da pesquisa mostram que o ajuste fino com dados sintéticos simples pode reduzir a característica do modelo de repetir as opiniões do usuário.'

O fundador do grupo 360, Zhou Hongyi, acredita que, como ferramenta de produtividade de nível revolucionário industrial, a verdadeira oportunidade dos grandes modelos de linguagem reside no mercado corporativo e que eles devem se tornar um padrão para cada sistema digitalizado.